home *** CD-ROM | disk | FTP | other *** search
/ NetNews Offline 2 / NetNews Offline Volume 2.iso / news / comp / lang / c-part1 / 9201 < prev    next >
Encoding:
Internet Message Format  |  1996-08-05  |  1.0 KB
  1. Path: news.interport.net!usenet
  2. From: jeremy <jeremy@interport.com>
  3. Newsgroups: comp.lang.c
  4. Subject: HELP: Floating point precision
  5. Date: Fri, 08 Mar 1996 13:57:31 -0500
  6. Organization: Xyris Software, Inc.
  7. Message-ID: <3140831B.1597@interport.com>
  8. NNTP-Posting-Host: jeremy.port.net
  9. Mime-Version: 1.0
  10. Content-Type: text/plain; charset=us-ascii
  11. Content-Transfer-Encoding: 7bit
  12. X-Mailer: Mozilla 2.0 (WinNT; I)
  13.  
  14. The mechanism for casting 4-byte float to 8-byte double is 
  15. causing me some problems. The following code:
  16.  
  17.     float f;
  18.     double d;
  19.     f = 1.332;
  20.     d = (double) f;
  21.  
  22. results in:
  23.  
  24. f = 1.33200
  25. d = 1.3320000171661
  26.  
  27. (I am using Microsoft Visual C++ 2.1 compiler).
  28.  
  29. I understand that this is due to complexities in 
  30. floating-point storage beyond my ken. Is there any run-time 
  31. library function which would cast f to 1.3320000000000 ? If not, 
  32. does anyone know how to write such a function? Using a lot of 
  33. processor cycles is not a big issue in the place I am having 
  34. this problem; I could afford to waste a little time.
  35.  
  36. Thanks!
  37. Jeremy
  38.